06 - Metody optymalizacji sieci neuronowych

Systemy Wbudowane i Przetwarzanie Brzegowe

Politechnika Poznańska, Instytut Robotyki i Inteligencji Maszynowej

Ćwiczenie laboratoryjne 6: Metody optymalizacji sieci neuronowych

Powrót do spisu treści ćwiczeń laboratoryjnych

Wstęp

Jako najbardziej powszchne metody akceleracji obliczeń, ale także optymalizacji parametrów sieci neuronowych (np. rozmiar modelu) możemy wymienić: - kwantyzacja wag (ang. quantization) - usuwaniu parametrów (ang. pruning) - klasteryzacja wag (ang. weight clustering) - przetwarzanie równoległe i asynchroniczne (ang. parallel processing and asynchronous processing) - przetwarzanie partiami (ang. batch processing)

Zadanie do samodzielnego wykonania

Na potrzeby laboratorium przygotowana została interaktywna instrukcja wykorzystująca środowisko Google Colab, które umożliwia użycie instancji chmurowych wyposażonych w karty graficzne do przyspieszenia obliczeń i procesu treningu sieci neuronowych.